Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги
Именно Маск настоял на том, чтобы OpenAI занялась проектом Dota. Успех DeepMind с AlphaGo задел его за живое, и он требовал, чтобы OpenAI дала какой-то ответ своему конкуренту в сфере игр. Раз го сложнее шахмат, значит, нужно найти что-то сложнее го. Так они пришли к игре, о которой, несмотря на ее бешеную популярность в своей узкой интернет-нише, 99% людей никогда в жизни не слышали. Многие исследователи OpenAI считали это направление тупиковым, но Маск настаивал. Если они хотели и дальше получать от него финансирование, им нужно было заявить о себе в мире игр, чтобы видеозапись их триумфа один миллиардер мог с гордостью показать другому на борту своего частного самолета.
Впрочем, проект Dota принес OpenAI и научную пользу – особенно в вопросах масштабирования. «Помню, как Якуб за выходные обучил первого агента – он умел выполнять лишь простейшие действия. А потом каждую неделю ребята удваивали количество процессорных ядер, и агент становился вдвое сильнее», – рассказывал Брокман. Он руководил проектом с присущим ему энтузиазмом и даже нанял съемочную группу во главе с бывшей журналисткой The New York Times Дженнифер 8. Ли для создания документального фильма об этом. Эффектная демонстрация привлекла внимание инвесторов, и в первую очередь – Microsoft. «Мы смогли показать, что одна и та же методика отлично работает, если ее масштабировать», – говорил Суцкевер.
В команду исследователей недавно влился Боб Макгрю, отработавший 10 лет в Palantir, – человек с обманчиво юным лицом и тронутыми сединой русыми волосами, который излучал энергию «единственного взрослого в комнате». Он бросил аспирантуру по ИИ в Стэнфорде, чтобы уйти в компанию Тиля по анализу данных, потому что «в 2005 году защита диссертации по ИИ не имела большого смысла». Несмотря на управленческий опыт, Макгрю пришел в OpenAI на позицию рядового сотрудника и попросил, чтобы к нему относились «как к аспиранту-третьекурснику». «В компании не совсем понимали, что со мной делать», – вспоминал он.
Макгрю вызвался участвовать в другом проекте OpenAI под руководством Войцеха Зарембы: они пытались научить виртуальную модель роботизированной руки собирать кубик Рубика в компьютерной симуляции. «Мы никак не могли заставить эту руку нормально работать», – вспоминал Макгрю. После успеха проекта Dota Заремба попросил Якуба Пачоцки, возглавлявшего исследовательскую группу по Dota, применить те же методы к роботизированной руке. «Эврика! Вместо двухпалого захвата, который едва мог удержать мяч, мы получили полноценную руку с пятью пальцами и кучей суставов – что-то около 25, – способную хватать предметы и манипулировать ими. А через несколько недель она уже собирала кубик Рубика», – рассказывал Макгрю.
Но по большому счету они двигались не в том направлении. Пока проекты Dota и робота-манипулятора гнались за громкими заголовками, малообщительный исследователь по имени Алек Рэдфорд в одиночку и без лишнего шума работал над тем, что имело куда более важное значение. Рэдфорд пришел в OpenAI в 2016 году, бросив учебу в колледже Франклина Олина – небольшой, но престижной инженерной школе в Нидхэме в штате Массачусетс. Он уже успел основать со своими однокурсниками стартап в области машинного обучения, но быстро понял, какие вычислительные мощности потребуются для того, что его по-настоящему интересовало. Рэдфорда привлекали не агенты, выполняющие команды, а языковые модели, способные понимать смысл человеческой речи. Его первый проект в OpenAI – обучение на 2 миллиардах комментариев с Reddit – провалился. Для следующего он взял данные поскромнее: 100 миллионов отзывов с Amazon. Задача была простой – научить модель предсказывать следующий символ в тексте отзыва. Но вместо этого произошел прорыв: модель научилась определять, был предложенный ей отзыв положительным или отрицательным. «Это стало полной неожиданностью», – признался Рэдфорд в интервью Wired[275]. В апреле 2017 года Рэдфорд, Суцкевер и еще один исследователь OpenAI, Рафал Юзефович, опубликовали статью о так называемом нейроне настроения, который мог определять эмоциональную окраску высказываний без предварительной разметки данных человеком.
Спустя два месяца Суцкевер наткнулся на препринт статьи, написанной восемью исследователями Google. Она называлась «Внимание – это все, что вам нужно». Он сразу понял: перед ним метод, способный сделать исследования Рэдфорда намного эффективнее. Вместо последовательной обработки символов один за другим подход Google позволял модели работать с крупными фрагментами текста параллельно, используя так называемый механизм внимания, который динамически определял важность ключевых частей текста. Этот метод также отлично использовал способность GPU-чипов выполнять множество вычислений одновременно. Суцкевер смог оценить всю значимость этой статьи – позже ее назовут статьей о трансформерах – отчасти потому, что она опиралась на его собственные разработки, включая опубликованную в 2014 году статью Sequence to Sequence, где он уже применял механизм внимания для улучшения машинного перевода и автоматического составления краткого содержания текстов[276].
Трансформеры стали огромным шагом вперед: они могли учиться на длинных текстовых последовательностях и эффективно использовать гораздо больше вычислительных ресурсов, чем доминировавшие до этого рекуррентные нейронные сети. Это открыло дверь в новую эпоху, где прогресс определялся стремительным ростом объемов данных и вычислительных мощностей. Впрочем, как и все нейронные сети, трансформеры остаются своего рода черными ящиками: даже на момент написания этих строк эксперты до конца не понимают, как именно они работают. Именно эта технология, родившаяся благодаря озарению Суцкевера и лингвистическим изысканиям Рэдфорда, стала движущей силой грядущего бума генеративного ИИ.
«Мы с Ильей часто обсуждали то, что я называю гениальностью по методу Фейнмана», – рассказывал Брокман, имея в виду знаменитого физика Ричарда Фейнмана, нобелевского лауреата, который работал над Манхэттенским проектом. «Метод Фейнмана прост: у тебя есть
